Date
décembre 2019
Type
PublicationContexte
Article publié dans la revue Cités, Paris, Puf, no 80, dossier « L’intelligence artificielle : enjeux éthiques et politiques » dirigé par Vanessa Nurock.
Résumé
Le regain d’intérêt pour l’intelligence artificielle (IA) des années 2010 engendre des programmes « auto-apprenants », ceux des techniques du deep learning, dont les logiques de fonctionnement sont structurellement inintelligibles (principe de la « boîte noire »). Ces IA investissent progressivement les capacités d’invention et d’imagination, et tendent donc à se substituer aux tâches communément attribuées aux designers. Le risque est alors que le design ne devienne qu’une puissance de production de marchandises et de motifs automatisés. Face au formatage des expériences humaines dans ce qu’elles ont de plus singulier, quelles marges de manœuvre peut-on inventer ? Des contre-pouvoirs sont-ils encore envisageables ?
Notions
Personnes citées
Objets mentionnés
Date
septembre 2023
Type
ConférenceContexte
Communication avec Florie Souday (ENS Paris-Saclay) au colloque international « AI and Education for Democracy », UNESCO EVA Chair, Université Côte d’Azur, Nice.
Résumé
Available from 2021 for as many people as possible, machine learning has created several issues for schools (ie. teaching objectives, exams, etc.). At the same time, these generative technologies are questioning the foundations of democracy, challenging notions of veracity, privacy, ownership and shared values. With its twofold American and Chinese hegemony, AI has become an insidious cultural model for the rest of the world. It doesn’t lend itself well to the development of democracy – if we define this concept as a dynamic principle that “thwarts the normal distribution of power” (Jacques Rancière). What reconfigurations are needed to ensure that AI is not a threat but an opportunity for democracy? How can we redefine education to achieve this objective?
Notions
Objets mentionnés
Médias
Date
juillet 2023
Type
ConférenceContexte
Communication à la journée d’étude « Intelligence artificielle et intelligence collective. Transformations dans les pratiques du travail et du savoir, par la production et l’usage des textes et des images », Nîmes, Carré d’art.
Résumé
Apparues pour le grand public avec le lancement de services orientés divertissement et création tels que DALL·E (janvier 2021), Midjourney (juillet 2022) ou ChatGPT (novembre 2022), les technologies du machine learning (apprentissage automatique) permettent de générer, à partir de requêtes textuelles (prompts), des objets numériques tels que des textes, images, sons, vidéos, 3D, etc. Au-delà des implications économiques, juridiques, politiques et pédagogiques de ces technologies, un point d’analyse encore peu traité réside dans leur caractère collectif. En effet, les grands jeux de données comme GPT-4 se basent sur un collecte massive du Web, faisant fi des droits d’auteurs et créant une sorte de mémoire (ou de moyenne) collective de ces traces en ligne – voire même un « general intellect ». Selon ce concept développé par Karl Marx, le développement des forces productives sous le capitalisme conduit à la création d’une forme de savoir commun, qui devient une source de richesse collective au-delà du travail individuel. Cette communication visera ainsi, depuis l’analyse de pratiques en art et design, à préciser ce que pourrait être un tel « cerveau social » à l’ère du machine learning.
Notions
Objets mentionnés
Médias
Date
juin 2023
Type
ConférenceContexte
Communication au World Knowledge Dialogue, « Le futur de la culture : financement et gouvernance à l’ère numérique ».
Résumé
L’objectif du congrès est d’explorer les conséquences des technologies numériques sur la culture, en particulier sur les industries créatives (p.ex. musique, art visuel et jeu vidéo). Plus spécifiquement, il s’agira d’analyser l’impact du numérique sur le financement et la gouvernance de la culture (p.ex. rémunération des artistes sur les plateformes de streaming, nouveaux modèles de financement à travers le Web3 et les NFT) pour accompagner ces mutations de façon soutenable.
Notions
Personnes citées
Objets mentionnés
Médias
Date
juin 2023
Type
ConférenceContexte
Communication aux journées d’étude « Éthique by design en intelligence artificielle : perspectives théoriques et pratiques », Paris, Unesco EVA Chair on AI.
Résumé
Released at the turn of the 2010s, deep learning technologies (a subfamily of machine learning) are based on opaque architectures. As they automate more and more tasks, these black boxes, that are not understandable to humans, overcome the usual ethical and moral categories. Faced with these challenges, some people want to “take back control.” However, if machines (through a mirror effect) reveal the “inhuman” part of humanity, does the human/machine separation still make sense? On the other hand, embedding ethics in a computer program (“by design”) requires making them explicit and fixed—which is the opposite of a dialogical dynamic. To overcome AI challenges, we must therefore “normative ethics” (prescription) and “capability ethics” (potentiation).
Notions
Personnes citées
Objets mentionnés
Date
juin 2023
Type
ConférenceContexte
Présentation de l’essai Design sous artifice aux Webmardi, Lausanne.
Résumé
Le grand public a récemment découvert des programmes de machine learning (apprentissage automatique) comme DALL·E, Midjourney ou Disco Diffusion capables de générer des images à partir de commandes textuelles (prompts). Ces images sans auteur·trice, d’une qualité impressionnante, suscitent l’émerveillement tout autant que des débats au sein de la communauté créative internationale, qui s’effraie de la menace que ces processus font planner sur la survie des professions d’illustrateur·trice ou de photographe.
Notions
Personnes citées
Objets mentionnés
Médias
Date
mai 2023
Type
ConférenceContexte
Présentation de l’essai Design sous artifice à la journée d’étude « IA, imaginaires et arts contemporains », ANR CulturIA, Paris, ENS Ulm.
Résumé
Le grand public a récemment découvert des programmes de machine learning (apprentissage automatique) comme DALL·E, Midjourney ou Disco Diffusion capables de générer des images à partir de commandes textuelles (prompts). Ces images sans auteur·trice, d’une qualité impressionnante, suscitent l’émerveillement tout autant que des débats au sein de la communauté créative internationale, qui s’effraie de la menace que ces processus font planner sur la survie des professions d’illustrateur·trice ou de photographe.
Notions
Personnes citées
Objets mentionnés
Médias
Date
mars 2022
Type
ConférenceContexte
Conférence dans le cadre du séminaire ArTeC, « Technologies critiques », dir. Emanuele Quinz, Université Paris 8.
Résumé
[…]Notions
Personnes citées
Objets mentionnés
Médias
Date
novembre 2021
Type
ConférenceContexte
Cycle de conférences UNIGE « Comprendre le numérique », session « Art et culture à l’ère numérique, ou comment la culture s’exprime aujourd’hui », dir. Yaniv Benhamou.
Résumé
«Les professeurs Yaniv Benhamou, Anthony Masure, Sarah Kenderdine et Françoise Benhamou (de g. à dr.) sur la scène d&8217;Uni Dufour, à Genève. Photo Heidi.news (DR)», UNIGE, 30 novembre 2021 […]Notions
Personnes citées
Objets mentionnés
Médias
Date
octobre 2021
Type
ConférenceContexte
Conférence dans le cadre du cycle « Design experiences », Prague, Department of Design, FA ČVUT. Version anglaise retravaillée d’une communication donnée à l’Esad Reims en avril 2021.
Résumé
Neural artificial intelligences (AI) have been finding their place in creative industries for several years. While deep learning technologies are most often considered from the perspective of automation, we propose to consider them also from the perspective of the concept of mechanization to emphasize the possibility of working “with” machines rather than surrendering their potentialities to economic forces. How might design contribute to defusing the dominant AI culture? How can we ensure that deep learning technologies can open up to invention and curiosity? How could (or should) design curricula be reconfigured?
Notions
Personnes citées
Objets mentionnés
Médias
Date
avril 2021
Type
ConférenceContexte
Conférence à l’Esad Amiens dans le cadre du séminaire « Le champ du signe » (dir. Simon Renaud) autour des intelligences artificielles et de la création.
Résumé
En raison de leur efficacité et rentabilité, les intelligences artificielles (IA) « neuronales » trouvent leur place dans les industries créatives depuis plusieurs années. Si les technologies du deep learning sont la plupart du temps envisagées sous l’angle de l’automatisation, nous proposons de les considérer également sous l’angle du concept de mécanisation pour souligner la possibilité d’un travail « avec » les machines plutôt qu’un abandon de leurs potentialités aux forces économiques. En quoi le design pourrait-il contribuer à désamorcer la culture dominante de l’IA ? Comment faire en sorte que les technologies du deep learning puissent ouvrir à l’invention et à la curiosité ? En quoi les cursus de design pourraient-ils (ou devraient-ils) faire l’objet de reconfigurations ?
Notions
Personnes citées
Objets mentionnés
Médias
Date
mars 2021
Type
ConférenceContexte
Communication au colloque « Deep City: Climate Crisis, Democracy and the Digital », Lausanne, EPFL, 25 mars 2021
Résumé
Deep learning artificial intelligence (AIs) works by comparing and aligning “raw” or “labeled” data sets. This mimetic paradigm (remix of “data sets”) makes it difficult to discern “generated” copy of original. Therefore, the question of acceptance of a world shaped by AIs arises less in terms of replacement than in terms of recovery: an environment in which one could not distinguish what is produced, or not, with AIs. Another challenge, with the demand of ecological sobriety, is the increase of algorithmic rationality with generated shapes optimized to structural constraints. What about social and aesthetic dimensions of shaping? How can AIs be open to invention and curiosity?
Notions
Personnes citées
Objets mentionnés
Médias
Résumé
Although the concept of “artificial intelligence” (AI) is an old one, its presence is constantly growing, whether in medias, pop culture, or everyday objects. In the 2010’s, the power of “self-learning” systems, those of deep learning, is related to unintelligible architectures (black boxes). These AIs progressively could replace tasks commonly assigned to designers. In this process, there is a risk that design becomes nothing more than an automated way of doing things and services, and that of formatting human experiences. How are these issues addressed by designers? What can design do “with” artificial intelligence?
Notions
Personnes citées
Objets mentionnés
Date
janvier 2020
Type
ConférenceContexte
Conférence avec Alexia Mathieu, responsable du Master Media Design de la HEAD – Genève. Séance inaugurale du cycle « Machine Vision : surveillance, simulation, spéculation », Paris, Le BAL
Résumé
Bien que le concept d’« intelligence artificielle » (IA) soit déjà ancien, sa présence ne cesse de s’intensifier, que ce soit dans la presse, la pop culture, ou les objets du quotidien. Des approches critiques se développent, par exemple face aux dérives sécuritaires de ces technologies, ou face à la précarisation des « tâcherons du clic » invisibilisés par ces promesses d’innovation. Comment ces enjeux sociaux sont-ils abordés par les métiers dits de la « création », eux-mêmes en proie à des risques et opportunité d’automatisation ? Qu’est-ce que le design peut faire « avec » les intelligences artificielles ? Comment aborder ces questionnements dans des situations pédagogiques ?
Notions
Personnes citées
Objets mentionnés
Date
septembre 2019
Type
ConférenceContexte
Communication dans le cadre du colloque « Humanités numériques et computationnelles », université Côte d’Azur, Académie d’Excellence « Homme, Idées et Milieux », Nice, Centre Universitaire Méditerranéen
Résumé
Prenant de l’ampleur au tournant des années 2010, les modalités d’intelligences artificielles dites d’« apprentissage profond » (deep learning) reposent sur une architecture technique structurellement opaque : le programme informatique n’est plus modélisé en amont mais résulte, par rétroaction, du couplage entre des entrées (inputs) et des sorties (outputs) « étiquetées ». En automatisant de plus en plus de tâches – y compris dans les champs de l’art et du design –, ces boîtes noires (black boxes) échappant à l’entendement humain bousculent les actuelles catégories éthiques ou morales. Mais si l’on considère que les machines, par effet de miroir, révèlent la part « inhumaine » de l’humanité, la partition humain/machine a-t-elle encore un sens ? S’inscrivant dans le dépassement de cette opposition, le travail critique des technologies du deep learning par l’art et le design montre comment des capacités considérées comme « humaines » peuvent en fait relever d’un caractère machinique. Dès lors, cela ne conduirait-il pas à remettre en cause l’expression même d’« humanités numériques » ?
Notions
Personnes citées
Objets mentionnés
Date
septembre 2018
Type
ConférenceContexte
Conférence donnée au colloque colloque MCRIDD, Tunis, Institut Supérieur des Arts Multimédia de la Manouba (Isamm)
Résumé
Le regain d’intérêt pour l’intelligence artificielle (IA) des années 2010 engendre des programmes auto-apprenants (deep learning) et potentiellement incontrôlables (black boxes). Ces IA « créatives » investissent progressivement les capacités d’invention et d’imagination, et tendent donc à se substituer aux tâches communément attribuées aux designers. Sous couvert de rentabilité, le risque est alors que le design ne devienne qu’une puissance de production de marchandises et de motifs (patterns) automatisés. Face au formatage des expériences humaines dans ce qu’elles ont de plus singulier, quelles marges de manœuvre peut-on inventer ? Des contre-pouvoirs sont-ils encore envisageables ?
Notions
Personnes citées
Objets mentionnés